AI för offentlig förvaltning – Riktlinjer för generativ AI

Av Anton Karlsson, biträdande jurist, verksamma vid Wikström & Partners Advokatbyrå i Stockholm och specialiserade på IT, IP och dataskydd.

Myndigheten för Digital Förvaltning (”DIGG”) och Integritetsskyddsmyndigheten (”IMY”) har den 21 januari 2025 publicerat Riktlinjer för generativ AI inom offentlig förvaltning^{(1)https://www.digg.se/ai-for-offentlig-forvaltning/riktlinjer-for-generativ-ai.} , som ska ge vägledning om hur generativ AI bör upphandlas och användas inom offentlig förvaltning, där syftet är att främja en säker, effektiv och etisk användning av generativ AI. Målgruppen för riktlinjerna är anställda och personer inom ledningsfunktioner, och särskilt i organisationer som befinner sig i en tidig fas av AI-mognaden. Riktlinjerna omfattar totalt 18 riktlinjer inom områdena Ledning och ansvar, Dataskydd och personuppgiftsbehandling (GDPR), Arbetssätt, Anskaffning, Informationssäkerhet, Upphovsrätt samt Etik.

Inom området Anskaffning har två riktlinjer tagits fram, Ta medvetna beslut om att skaffa generativ AI och Köp generativ AI enligt LOU, inom vilka viktiga frågor som verksamheter inom den offentliga förvaltningen bör beakta vid anskaffning av AI-verktyg lyfts. Det lyfts särskilt att avtalsfrågor och leverantörsvillkor bör studeras noggrant, och att det finns flera aspekter som är viktiga att ha i åtanke vid granskning och förhandling av avtalsvillkor, bland annat villkor avseende rätten till genererat material, ansvarsbegränsningar, behandling av personuppgifter, informationssäkerhet, och tvister och uppsägning.

Riktlinjerna begränsar sig till vägledning avseende användningen av existerande generativa AI-system, och omfattar inte vägledning avseende utveckling av nya grundmodeller eller finjustering av befintliga grundmodeller. Mot bakgrund av den snabba utvecklingstakten vad avser generativ AI, kommer riktlinjerna utvecklas och uppdateras kontinuerligt.